Книга Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

том, как они используются, обусловлена нормами сообщества.

Дизайн Twitter действительно предоставлял возможность для эмерджентного коллективного поведения, для спонтанного формирования толпы, что несло в себе потенциал внезапного превращения в толпу. Если достаточное количество людей увидит даже совершенно искреннее сообщение - "Мне нравится пить кофе с мужем в нашем саду по утрам" 65 - оно гарантированно станет ужасно оскорбительным для какого-нибудь недовольного, который почувствует себя просто обязанным сообщить об этом автору сообщения (А вы подумали, как это звучит для людей, у которых нет мужей?/садов?/кофе?). Функция "цитата-твит" позволяла одному пользователю увеличить твит другого, добавив к нему комментарий - хотя она часто использовалась для поддержки чьего-то сообщения с небольшим добавлением мнения, она была не менее эффективна как инструмент для "опускания" или высмеивания основного сообщения или пользователя. Добавление хэштега, особенно такого, который увязывал пост с более широким повествованием о недовольстве или давал отличительный бренд спору (#CoffeeGate), делало его обнаруживаемым как для алгоритмов, так и для других людей. Алгоритмы кураторства Twitter могли бы расценить растущее количество сообщений как признак того, что многие люди заинтересовались темой, и продвинуть ее в более широкую аудиторию.

Хэштеги стали чрезвычайно полезным инструментом, позволяющим находить сообщества и темы: #BlackTwitter, #ScienceTwitter, #Caturday. Но, как и любой инструмент, их можно было использовать в качестве оружия, а то, как они пересекались с Trending Topics (функция, с помощью которой Twitter формирует полуперсонализированный список популярных в данный момент хэштегов), создавало стимулы для теоретиков заговора, гиперпартизанов и драчунов, чтобы попытаться вывести в тренд слухи, пропаганду и хэштеги преследования. Трендовые хэштеги занимали видное место в списке, а интрига могла привлечь сторонних наблюдателей, которые, в свою очередь, могли создавать свои собственные посты или еще больше усиливать те, что были в хэштеге. Так и случилось с удивительной Полли, ее толпой сторонников и #SaveTheChildren.

В интернет-среде этот процесс, когда многие пользователи почти одновременно делятся связанным контентом, что часто приводит к более широкому алгоритмическому повышению или продвижению, - это то, как что-то становится вирусным. Фраза, заимствованная из эпидемиологии, означает, как патогенные микроорганизмы распространяются от человека к человеку. Но "это стало вирусным" - пассивная фраза для очень активного и вовлеченного процесса. Вещи не просто "становятся вирусными"; мы намеренно распространяем их.

СМИ часто освещают вирусный контент так, будто его причиной являются алгоритмы - особенно если речь идет о тренде "пограничного содержания", который, по мнению большой группы людей, должен был пройти модерацию и быть понижен в рейтинге. Но такая трактовка лишает пользователей самостоятельности, а сегодня толпа в Интернете обладает большей самостоятельностью, чем когда-либо прежде. Алгоритмы обеспечивают подъем и повышают осведомленность, но вирусность - это коллективное поведение: каждый пользователь делает осознанный выбор, публикуя или ретвитя контент, потому что считает его привлекательным, верит в него или возмущен им.

Дизайн Facebook, в отличие от Twitter, не располагал к спонтанному скоплению людей в активном стремлении к разжиганию ярости. Закрытый характер групп Facebook и контроль конфиденциальности на платформе в целом, позволяющий видеть сообщения людей только друзьям или членам группы, были полезны для удержания людей на месте, но не особенно эффективны для бродячих групп возмущенных. Группы, конечно, могли координироваться, чтобы нападать на своих врагов - действительно, группы против вакцинации делали это активно, - но пользователям приходилось спрыгивать с платформы, чтобы устроить моббинг в более благоприятных местах, и это трение, похоже, снижало привлекательность. В результате своей закрытости постоянные сообщества на Facebook общались и делились мнениями, приходя к консенсусу более традиционным, совещательным способом. Это привело к появлению сообществ с устойчивым характером, глубоким доверием между членами, а также ощущением постоянства и долгосрочных целей. В сообществах Backyard Chickens и Melanoma Warriors не было людей, пытающихся привлечь к себе внимание на арене.

Функция Trending Topics в Facebook тоже была нацелена на появление вирусных статей, которыми делились и обсуждали многие пользователи, а не на случайные комментарии незадачливых людей. Тем не менее она стала источником разногласий, поскольку заинтересованные финансово и идеологически мотивированные группы начали пытаться играть с ней. Эти манипуляторы побуждали пользователей (или использовали поддельные учетные записи "sockpuppet") массово делиться статьями в одно и то же время. Стремясь минимизировать влияние игр и уменьшить охват контентных фабрик, монетизирующих заголовки-кликбейты, Facebook добавил к отображаемым трендам слой человеческого редакторского контроля. Однако это совсем не понравилось небольшой, но энергичной группе правых авторитетов и их поклонников. Многие сайты-приманки производили гиперпартийный контент правого толка, и когда они были понижены в рейтинге и удалены из трендов, компания столкнулась с обвинением в антиконсервативной предвзятости со стороны фракции идеологически настроенных пользователей, правых авторитетов и гиперпартийных СМИ, которые превратили ситуацию в историю о том, что Facebook предвзято относится к консерваторам. (Фракция - это противоборствующее и идеологически однородное подмножество большой толпы).

Спровоцированные споры - "Трендовые темы" - оказались переломным моментом: В ответ на жалобы видных консерваторов Facebook уволил кураторов-людей, и функция превратилась в алгоритмически опосредованный фри-форум, 66 , в котором главным образом говорилось о том, что работа с судьями ("ref-working") является эффективной стратегией для достижения благоприятного для своих интересов политического результата. Это также убедительно продемонстрировало, что фракция может быть взбудоражена убеждением, что ее точка зрения несправедливо подавляется, даже если на самом деле это не так.

После увольнения кураторов-людей распространились дикие, фальшивые вирусные новости - такие, как "Папа Франциск шокировал мир, поддержав Дональда Трампа в качестве президента" 67 или "Срочно: Fox News разоблачает предательницу Мегин Келли, выгоняет ее за поддержку Хиллари". 68 В конце концов Facebook полностью закрыл эту функцию; сейчас, в 2024 году, он пытается вновь внедрить ее в своем конкуренте Twitter, Threads. Но на тот момент были раскрыты как формула захвата массового внимания с помощью возможностей платформы, так и ценность громких жалоб; ящик Пандоры был открыт.

В лучшем случае группы на Facebook помогают людям со всего мира найти свое сообщество: здесь есть группы поддержки редких заболеваний, группы поклонников конкретных артистов и места для общения активистов, решающих гуманитарные проблемы. Однако самые экстремальные группы на Facebook превратились в эхо-камеры, которые активно поощряли недоверие к любому эксперту, авторитетному лицу или СМИ, не принадлежащему к племени. QAnon не существовал бы в том виде, в котором он существует сегодня, если бы не случайная алгоритмическая вербовка Facebook, а также его инструменты для поддержания устойчивых связей на массивной платформе, где пользователи и так проводили много времени. В худшем случае Twitter создавал толпы, а Facebook выращивал культы.

Мобы и культы, каждый из подмножеств толпы, нуждаются в топливе для поддержания своего возмущения, паранойи или мифологии - для поддержания